Justinus lúc đầu chỉ là một người nông dân và người chăn lợn thuê[2] xuất thân từ vùng nói tiếng Latinh là Dardania thuộc một phần của Giáo khu Illyria.[3] Ông sinh ra trong một ngôi làng nhỏ gần Bederiana ở Naissus (nay là Niš, phía nam Serbia).[2][4] Vốn là người La Mã gốc Thrace[5][6][7][8][9] và đáng buồn thay, giống như đám bạn bè và các thành viên trong gia đình ông (gồm Zimarchus, Dityvistus, Boraides, Bigleniza, Savona, v.v.) đều mang cái tên Thracia và chẳng ai biết nói gì hơn là thứ tiếng Hy Lạp thô sơ.[5][10] Người em gái Vigilantia (sinh vào khoảng năm 455) kết hôn với Sabbatius và có hai người con: Petrus Sabbatius Justinianus I (sinh năm 483) và Vigilantia (sinh khoảng năm 490), mà sau này được gả cho Dulcissimus và bà sinh ra Praejecta (khoảng năm 520) về sau kết hôn với Nguyên Lão nghị viên Areobindus và Justinus II (sinh khoảng năm 520).

Khi còn ở tuổi thiếu niên, ông và hai người bạn đã trốn thoát từ một cuộc xâm lược của quân rợ, sau đó cả nhóm đã chạy tới tị nạn ở Constantinopolis với một bộ đồ rách rưới vắt trên lưng và mang theo một bao toàn bánh mì. Vì kế sinh nhai nên Justinus sớm gia nhập quân đội và cũng nhờ tài năng và lòng quả cảm mà chẳng mấy chốc đã thăng chức tới đại tướng dưới thời Hoàng đế Anastasius I; Vào lúc Anastasius mất vào năm 518, ông đang giữ chức vụ có ảnh hưởng lớn trong triều là comes excubitorum tức chỉ huy đội cấm quân.[11]